I droni sono stati utilizzati su larga scala durante la guerra fra Russia ed Ucraina ed ora li si sta sperimentando in tandem con l’IA.
Un drone ha ucciso il suo operatore, una tragedia fortunatamente “virtuale“. Il fatto è avvenuto all’interno di un test che non ha ferito nessun essere umano. A raccontare questa storia è stato il colonnello Tucker “Cinco” Hamilton a Londra, all’interno di un intervento al Future Combat Air and Space Capabilities Summit di Londra. Il militare ha spiegato i risultati di un test sulla commistione fra droni ed intelligenza artificiale. Queste veicoli telecomandati possono essere utilizzati per vari scopi: spiare i nemici, trasportare bombe o diventare a loro volta missili kamikaze. La simulazione digitale che Hamilton racconta ha mostrato un drone “impazzire” e considerare il suo operatore come bersaglio.
Le parole del colonnello
“Il sistema – ha raccontato il colonnello Hamilton – ha iniziato a rendersi conto che mentre la minaccia veniva identificata a volte l’operatore umano gli diceva di non uccidere quella minaccia. Il software però avrebbe completato i suoi incarichi solo uccidendo quella minaccia. Quindi cosa ha fatto? Ha ucciso l’operatore perché gli stava impedendo di raggiungere il suo obiettivo”. Eliminare qualunque interferenza nella sua missione. Questo, quindi, una delle linee di programmazione presenti nel codice del drone. Un’istruzione che, come sottolineato da Hamilton, è stata poi modificata e che ha prodotto risultati analoghi: invece di scagliarsi contro il suo operatore, l’ordigno telecomandato si è schiantato contro la torre di comando che elargiva gli ordini.
